Не са само „голите“ Тейлър Суифт: Милиони тийнейджърки са превърнати в дълбоко фалшиво порно от съученици
„Представете си момиче, което се събужда и намира изрична снимка или видео, което прилича на нея, но не е тя, “, каза Дорота Мани пред The Post.
Това се случи с 14-годишната дъщеря на Мани, Франческа, която откри през октомври, че съученици от гимназията Уестфийлд, в окръг Юниън, Ню Джърси, са разпространили снимка, която изглежда го изобразява.
Но снимката не беше истинска. То е генерирано от момчета от нейния клас с помощта на технологията „deepfake“ с изкуствен интелект.
Всичко, от което се нуждаеше извършителят, беше да направи невинна снимка на Франческа от социалните й медии и да използва едно от десетки приложения или уебсайтове, за да я превърне във фалшива гола снимка.
Тази седмица лекотата, с която могат да бъдат създадени гнусни порнографски „deepfakes“ експлодира в публичното пространство, тъй като голото изображение на Тейлър Суифт наводни социалните медии.
Изопачената версия на най-голямата поп звезда в света беше толкова вездесъща, че X, бивш Twitter, трябваше да цензурира търсенията на нейното име, за да спре невинните потребители да виждат изображението.
Нов анализ за Associated Press разкри, че тази година онлайн е публикувано повече дълбоко фалшиво съдържание, отколкото всяка друга предходна година взети заедно.
Проблемът беше споменат само веднъж в сряда на Капитолийския хълм, когато сенатори разпитваха технологични изпълнителни директори, включително Марк Зукърбърг, който управлява Facebook и Instagram, Евън Шпигел, който ръководи Snapchat, и Линда Якарино от X за безопасността на децата в продължение на четири часа.
Но според майка й Франческа е била една от десетките жертви на дълбоко фалшива порнография само в нейната гимназия – което предполага, че проблемът редовно засяга милиони американски тийнейджърки.
И няма федерален закон, който да забранява разпространението на изображенията, тъй като в момента те не са категоризирани като изображения на насилие над деца.
„Бяха няколко отегчени, разглезени тийнейджъри, които решиха да се забавляват за сметка на съучениците си“, каза майка й. „Трябва да има отговорност и момичетата трябва да знаят, че има отговорност.“
Училищният район каза, че броят на засегнатите е „много по-малко“ от 30, но отказа да разкрие точния брой.
Мани, на 44, мислеше, че прави всичко възможно, за да защити дъщеря си онлайн, но беше заслепена от технологията deepfake, използвана срещу нея.
„Аз съм образована, информирана жена на средна възраст. Говорих с децата си за Snapchat и за TikTok“, каза тя. „Но за да бъда честен с вас, не знаех, че с едно кликване можете да създадете такова нещо.“
Мани, майка на две деца, научила, че дъщеря й е жертва, когато й се обадили от училището, за да й кажат, и след това се свързала с нея от местната полиция, за да попита дали тя и Франческа искат да подадат официална жалба.
Но в крайна сметка полицията каза на Манис и семействата на други жертви, че не могат да намерят нито един закон на Ню Джърси или федерален закон, който да направи дълбоките фалшиви изображения незаконни, докато училището прие нови правила, за да обяви изрично споделянето на изображения за престъпление.
Училищният началник д-р Реймънд Гонзалес каза пред The Post, че Уестфийлд, един от най-богатите градове в Ню Джърси. не беше сам в справянето с проблема.
„Всички училищни квартали се борят с предизвикателствата и въздействието на изкуствения интелект“, каза той.
„Държавният училищен окръг Westfield разполага с предпазни мерки... [ние] продължаваме да засилваме усилията си, като обучаваме нашите ученици и създаваме ясни насоки, за да гарантираме, че тези нови технологии се използват отговорно.“
Сега Мани и Франческа отправиха своята молба за действие към Конгреса и други политически лидери - включително очаквана среща в Белия дом следващата седмица.
„Открихме, че няма закони, които да ни предпазят от това, няма училищни политики за ИИ, няма щатски закони, няма федерални закони“, каза Мани пред The Post. „Бяхме просто ужасени от начина, по който се справихме със ситуацията.
„Всеки иска да ни види разбити и разплакани на пода. Това не сме ние. Момичетата трябва да отстояват себе си и да не приемат просто да бъдат жертви.“
И двамата призовават за наказателни санкции за разпространението на дълбоки фалшификати и правна защита на жертвите.
Майката и дъщерята си сътрудничиха с щатските законодатели в Ню Джърси, за да изработят законопроект, който би превърнал споделянето на дълбоко фалшиво порно в престъпление, което подлежи на глоба — и може да прикачи и затвор към него.
Щатът ще се присъедини към Тексас, Вирджиния и Ню Йорк, които са криминализирали дълбоко фалшивото порно без съгласие.
Те подкрепят двупартийното законодателство в Сената, водено от сенатора демократ Ейми Клобучар и републиканеца Джош Хоули, за да направят дълбоките фейкове без съгласие незаконни, съгласно предложения закон DEFIANCE, и подобно усилие в Камарата на конгресмена демократ Джо Морел, който представлява Рочестър, Ню Йорк, наречен Закон за предотвратяване на дълбоки фалшификации на интимни изображения.
„Никой – нито знаменитости, нито обикновени американци – никога не трябва да се оказва включен в AI порнография“, каза Хоули. „Невинните хора имат право да защитават репутацията си и да държат извършителите отговорни пред съда.“
На пресконференция с конгресмен Морел във Вашингтон, окръг Колумбия, през януари Франческа каза: „Това, че съм тийнейджър, не означава, че гласът ми не е силен. Това, което се случи с мен и моите съученици, не беше готино и няма начин просто да вдигна рамене и да го оставя да се плъзне.“
